Yamagata trở thành giọng ca chính của nhóm nhạc Bumpus và dành 6 năm đi lưu diễn, soạn nhạc và thu âm với ban nhạc trước khi rời khỏi ban nhạc vào năm 2001 để bắt đầu sự nghiệp âm nhạc solo. Vào tháng 12 năm 2002, cô đã có hợp đồng 2 bản thu âm với Arista's Private Music và Đĩa mở rộng Rachael Yamagata được sản xuất bởi Malcolm Burn được phát hành vào tháng 10. Album dài đầu tay Happenstance, được sản xuất bởi John Alagía tại Compass Point Studios. Giữa năm 2003 và năm 2005, Yamagata đi hát tại Amoeba Records[4] và The Hotel Café, cả hai đều ở Hollywood.

Yamagata đã từng đi lưu diễn với Mandy Moore và góp mặt trong album Wild Hope của Moore

Tháng 5 năm 2008, Yamagata đã phát hành đĩa mở rộng Loose Ends. Album dài thứ 2 Elephants...Teeth Sinking Into Heart được phát hành vào tháng 10 năm 2008. Billboard mô tả album mang giai điệu u buồn hơn nhiều so với album đầu tiên của cô. Cũng chính vào tháng này, cô cũng đã có một buổi biểu diễn trực tiếp trên LiveDaily Sessions với hai bài hát "Faster" và "Sunday Afternoon". Tháng 4 năm 2009, Yamagata biểu diễn bài hát "Elephants" của mình trên bộ phim truyền hình One Life to Live.

Yamagata đã phát hành kỹ thuật số album mới vào mùa thu năm 2011 với Pledgemusic. Và album thu âm thứ 3 Chesapeake phát hành vào tháng 10 năm 2011. Vào năm 2012 Yamagata phát hành đĩa mở rộng kế tiếp là Heavyweight. Cô đã nhiều lần xuất hiện với tư cách là nghệ sĩ khách mời cho các nghệ sĩ khác bao gồm: Jason Mraz's cho "Did You Get My Message?", "Fireflies" và "The Believer" của Rhett Miller,album True Love của Toots & the Maytals, bài hát "Barfly" của Ray Lamontagne, và một vài bài hát trong album Cold Roses của Ryan Adam. Và sáu bài hát của Bright Eyes trong album Cassadaga.[5] Yamagata góp phần soạn nhạc, chơi keyboards và hát cho ca khúc "Kaleidoscope" của Jill Cunniff một cựu thành viên của Luscious Jackson. Yamagata cũng đã biểu diễn với một dàn diễn viên trong phần 30 Rock của "Kidney Now!". Bài "You Take My Troubles Away" cho bộ phim Dear John, bản song ca của cô với Dan Wilson. Và biểu diễn bài hát "I'm Going to Go Back There Someday" của Muppets trên một album cover, Muppets: The Green.

Yamagata lần nữa đã đồng hành cùng với PledgeMusic cho album Tightrope Walker và phát hành nó vào 23 tháng 9 năm 2016.